AI030
Dasar-Dasar Kecerdasan Buatan Generatif dalam Python
Evolution NLP dan Arsitektur Transformer
Tujuan Pembelajaran
- Analisis keterbatasan RNN dan LSTMs dalam menangani dependensi jangka panjang
- Definisikan dasar matematis dari mekanisme Self-Attention
- Uraikan arsitektur encoder-decoder Transformer serta komponen-komponennya
- Evaluasi peran encoding posisi dan perhatian multi-kepala dalam pemodelan urutan